Garant: „Gefahren durch KI, Bündnis zum Schutz Minderjähriger“

Die Verteidigung der Prinzipien des demokratischen Staates durch die Eindämmung der zunehmend unbegrenzten Macht von Plattformen; die mit der Entwicklung künstlicher Intelligenz verbundenen Risiken, die insbesondere Minderjährige betreffen können; und die Zunahme von Cyberangriffen auf Institutionen und Einzelpersonen, insbesondere Frauen und Minderheiten, die vom Deepfake-Phänomen betroffen sind. Dies sind die Dringlichkeiten, die Pasquale Stanzione, Präsident der italienischen Datenschutzbehörde, in seinem Jahresbericht an das Parlament in der Sala della Regina des Palazzo Montecitorio nannte. Das wichtigste Gegenmittel gegen die Gefahren des digitalen Zeitalters, betonte er, sei die Entwicklung einer Kultur der Privatsphäre auf allen Ebenen der Gesellschaft.

Die Entwicklung künstlicher Intelligenz bringt viele Vorteile mit sich, beispielsweise im Gesundheitswesen. Ihr Einsatz könne jedoch „untragbare Gefahren“ bergen, insbesondere für Minderjährige, die als Digital Natives „eine fast osmotische Beziehung zu neuen Technologien haben, mit unbestreitbaren Vorteilen, aber auch erheblichen Risiken“. „Was äußerste Sorgfalt erfordert“, warnte die Behörde, „ist die Einhaltung der Anforderungen zur Altersüberprüfung und vor allem eine gemeinsame Allianz zwischen Institutionen und Bildungseinrichtungen, um das digitale Bewusstsein Minderjähriger zu fördern.“

Dies ist ein dringendes Problem, denn in nur zwei Jahren hat der Einsatz von KI zur Erstellung von Kinderpornografie um 380 % zugenommen. Die Belastung von Jugendlichen mit Kinderpornografie stieg im gleichen Zeitraum bei Jungen um 35 % und bei Mädchen um 67 %. Generative KI hat zudem tiefgreifende Auswirkungen auf das Leben von Jugendlichen, weshalb „digitale Pädagogik zunehmend notwendig wird“.

Kurz gesagt: Diese tiefgreifend digitalisierte Gesellschaft erfordert dringende und mutige Entscheidungen. Ein entscheidendes Hindernis für die ansonsten unbegrenzte private Macht der Plattformen sei die Regulierung, die ein wesentlicher Bestandteil der europäischen Strategie für digitale Governance sei. Die Verordnung über politisches Targeting, so Stanzione, weise den Behörden eine wichtige Rolle bei der Verhinderung von Profilerstellung und Inhaltsauswahl zu, die die demokratische Dynamik verzerren. „Andernfalls“, fügte er hinzu, „laufen wir Gefahr, die Definition von Freiheiten und die Ausübung der Demokratie an Plattformen zu delegieren und so eine vertikale Machtachse neu zu ziehen.“

Cyberangriffe stellen eine immer größere Bedrohung dar und nehmen in Italien weiter zu. Daher ist Cybersicherheit ein zentrales Thema. „Die Nachrichten über angebliche Dossiers“, betonte Stanzione und erinnerte an den Fall Paragon, „haben den Wert der Privatsphäre deutlich gemacht, der allzu oft unterschätzt wird und nicht nur im Krankheitsfall gewürdigt werden kann. Wir müssen frühzeitig handeln und uns schützen.“

In dem Bericht betonte der Garant, dass 2024 das Jahr der Suche nach Lösungen sei, die die Entwicklung künstlicher Intelligenz mit den Menschenrechten in Einklang bringen, wie es während des G7-Gipfels unter italienischer Präsidentschaft geschehen sei.

Zu den wichtigsten Maßnahmen gehörte der Abschluss der Untersuchung von ChatGPT durch die Behörde. Sie ordnete an, dass OpenAI, das Unternehmen, das den Chatbot betreibt, eine Informationskampagne startet und eine Geldbuße von 15 Millionen Euro zahlt. Neben diesen innovativeren Aktivitäten wurden auch etabliertere Maßnahmen fortgeführt, darunter die Bekämpfung aggressiven Telemarketings mit hohen Geldbußen, der Schutz besonders gefährdeter Personen und der Schutz von Gesundheitsdaten.